As primeiras relações entre os judeus e os gregos deram-se quando o rei persa Ciro, o Grande permitiu o retorno dos judeus à Palestina, em 537 a.E.C, dando fim ao exílio na Babilônia. O profeta Ezekiel descreveu os gregos como mercadores de escravos e trabalhadores do bronze. O historiador grego Heródoto sabia da existência dos judeus e os chamava de Sírios Palestinos e o incluiu em sua lista de povos servindo à marinha do rei Xerxes, quando este invadiu a Grécia em 480 a.E.C.

Podem ter existido comunidades desde o Exílio na Babilônia, mas entidades organizadas só surgiram a partir dos anos 400 a.E.C. As comunidades prosperaram sob o domínio de Alexandre, o Grande e seus sucessores - pelos 200 anos seguintes. Surgiu, então, uma classe de judeus pró-gregos, assimilados, mas eles não eram a maioria. Isto culminou na Revolta dos Macabeus, contra o rei selêucida Antíoco IV. Os judeus derrotaram os selêucidas e firmaram um pacto que colocava a família dos Macabeus como dirigentes da comunidade e permitia a livre aplicação da lei judaica, mesmo que a Palestina ainda fosse parte do império selêucida. Após a revolta, muitos judeus helenizados foram para centros comerciais helenísticos como Alexandria (no Egito) e Antioquia (na Síria da época, atual Turquia). Eles fundaram comunidades em muitas cidades da Grécia, também.

Estes judeus assentados na Grécia eram chamados de Romaniotas. Eles traduziram suas preces para o grego e as recitavam em grego, apesar de estarem escritas em hebraico.

Estes romaniotas perduraram durante a época do Império Bizantino. Ao mesmo tempo em que eram pressionados a aceitar Jesus como Messias eram protegidos por serem um Povo do Livro. A vida, portanto, não era sempre fácil. Durante os séculos 11 a 13, muitos judeus ashkenazis da Europa Central, assustados com as cruzadas, acharam refúgio em Thessaloniki (ou Salônica).

Em 1453 os Turcos-Otomanos conquistaram o Império Bizantino e impuseram seu controle sobre os judeus. Eles eram reconhecidos como uma nação autônoma separada e se organizavam em suas próprias comunidades.

A demorada luta entre os otomanos e os bizantinos fizera com que a maioria das cidades gregas perdessem suas populações judias. Os otomanos, então, convidaram os judeus para se instalar em sua nova capital, Istambul, de modo a aumentar o contingente populacional e fazer reviver o seu comércio.

Esta política tolerante atraiu judeus sefaraditas expulsos da Espanha e de Portugal.

Eventualmente o rito sefaradita foi aceito pelos romaniotas, que abandonaram seu rito antigo e assimilaram o Ladino. Devido à tolerância garantida pelos otomanos, os judeus tornaram-se apoiadores do governo, ganhando a antipatia dos gregos, que sonhavam com a independência. Quando a Grécia ficou independente, em 1829, após 8 anos de guerra, muitos judeus foram massacrados junto com os turcos.

Na virada do século, por volta de 1900, a cidade de Salônica contava com mais de 80.000 judeus, que eram a maioria da população da cidade. Havia lá mais de 50 sinagogas e 20 escolas judaicas. A população judaica era diversa e incluía Karaítas (judeus que rejeitam a Lei Oral) e Donmeh (seguidores do falso Messias Shabbetai Tzvi), apesar da dominância sefaradi.

Atenas, no entanto, perdeu muitos de seus judeus após a Guerra de Independência. Ou fugiram ou foram mortos, provavelmente. Os primeiros novos judeus vieram em 1834, após o rei bávaro Otto I da Grécia (veio da Baviera para reinar sobre a Grécia) assentar-se em Atenas com um judeu chamado Max Rothschild. Como o rei, eles também vinham da Baviera, o que fazia deles ashkenazim. Mais tarde vieram alguns judeus da Turquia, mas a cidade não possuía uma tradição definida.

Esse vai e vem gerou uma mudança na característica na comunidade. Por exemplo: Salônica, uma cidade judia durante toda a época otomana, tornou-se parte da Grécia em 1913. Isto resultou numa mudança gradual da personalidade da cidade e em sua transformação de centro multicultural em uma cidade portuária grega. Durante a década de 1930 e, imediatamente antes do estourar da II Guerra Mundial, 31 comunidades judaicas estavam dispersas por toda a Grécia. A maior destas, Salônica, contava com mais de 50.000 judeus, enquanto outros 20.000 viviam espalhados por todo o país.

A ocupação alemã na Grécia ocorreu gradualmente. Em 1941 a Grécia era dividida em três zonas: alemã, italiana e búlgara. Os alemães ocuparam a Macedônia Central, uma faixa da Trácia e Creta, onde estavam localizadas uma quantidade significativa de comunidades judaicas. Os búlgaros ocupavam a Macedônia Oriental e a Trácia onde havia uma quantidade menor de comunidades judaicas. E os italianos ocupavam o restante da Grécia, onde também existia uma quantidade significativa de comunidades judaicas.

Inicialmente, a zona italiana constituía um porto seguro para os judeus que foram deixando, a tempo, as zonas de ocupação alemã e búlgara. Em Novembro de 1942, as autoridades búlgaras declararam que aceitavam as propostas alemãs de evacuação dos judeus. Neste mesmo mês, instituíram as leis de Nuremberg em seus domínios e, em Janeiro de 1943, uma comissão confiscou todos os bens dos judeus. Em Março deste ano, todos foram presos. Cerca de 200 escaparam. 4.100 foram deportados para Treblinka.

Os alemães deportaram os judeus de sua área de ocupação em 1943. As prisões foram completadas na metade deste ano. Entre março e agosto de 1943, os alemães deportaram a maioria da população judaica das cidades da Macedônia e da Trácia Oriental. Entre 1941 e 1943, os italianos praticamente não adotaram nenhuma medida anti-semita. Eles ainda ajudavam os judeus fazendo documentos falsos italianos, entre outras coisas, mas isso acabou quando a parte italiana caiu nas mãos dos alemães. Após isso os judeus da antiga parte italiana tiveram o mesmo destino que os das outras regiões.

Em setembro de 1944, os alemães deixaram a Grécia, derrotados. Mas, entre 1941 e 1944 haviam aniquilado mais de 87% do judaísmo grego, o que representa o maior percentual de mortes após os números da Polônia.

A ocupação alemã acabou em outubro de 1944. A situação dos judeus gregos era péssima. Em 1946, mal se encontrava um minian no Shabat. Não havia educação religiosa para as crianças.

A economia grega, despedaçada pelos altos índices de inflação e escassas exportações, dificultada mais ainda a volta por cima da comunidade judaica. A economia teve um grande alívio com os Planos Truman e Marshall, entre os anos de 1949 e 1952, o que também permitiu ao governo atingir sua própria estabilidade e a do país.

O empenho dos judeus em reconstruir suas vidas e suas comunidades teve o apoio do Conselho Central de Comunidades Judaicas da Grécia (Kentriko Israilitiko Symvoulio ou K.I.S.). O K.I.S. foi criado em 1945, em base temporária, com a tarefa de avaliar e reconstruir as comunidades judaicas. Em 1951 o conselho virou permanente.

Em março de 1949, fundou-se a Organização de Amparo e Reabilitação dos Judeus Gregos (OPAIE). Todas as propriedades pertencentes aos que tinham perecido na guerra e não tinham parentes até o quarto grau para reclamá-las foram apossadas pela OPAIE.

De forma semelhante à ajuda que existia dentro da Grécia, as comunidades judaicas, digladiando-se para se reerguer, para recuperar propriedades perdidas ou invadidas, bem como para fazer reviver suas instituições comunais, também contavam com o auxílio do American Jewish Joint Distribution Committee, da Agência Judaica e do Congresso Judaico Mundial.

Em 1945, 4.878 judeus estavam cadastrados na Comunidade Judaica de Atenas: 85% não tinham uma casa digna, grande parte deles eram refugiados de outras comunidades, enquanto outros, apesar de atenienses, não podiam voltar a suas antigas moradias, pois estas foram ocupadas pelos gregos.

A reabilitação e o restabelecimento da comunidade progrediram lentamente: após a Guerra, 98% da população necessitava de auxílio; já em 1954, apenas 10% da população judaica era carente.

Comunidades judaicas atuais da Grécia

Atualmente, as comunidades judaicas gregas dividem-se em três grupos: a) ativas, b) inativas, e c) dissolvidas.

Segundo a legislação grega, uma comunidade é considerada ativa quando o número de suas famílias é superior a 20. Se o número for inferior a isso, a comunidade é declarada inativa e a sua diretoria consiste de membros locais e um representante do Conselho Central de Comunidades Judaicas da Grécia (K.I.S.) ou de uma comunidade adjacente (geralmente, de Tessalônica). Quando a população da comunidade cai a ponto de atingir menos do que cinco famílias, é declarada dissolvida.

a) Comunidades ativas são as de Atenas (com uma população de quase 3.000 pessoas), Tessalônica (1.000), Larissa (400), Joanina (55), Kerkyra ou Corfu (40), Triacala (39) e Halkida ou Halkis (35).

b) Comunidades inativas são as de Beréia (declarada inativa em 1970), Cavala (1970), Carditsa (1970) e Rodes (1970), apesar de várias famílias ainda viverem nesses lugares.

c) Comunidades dissolvidas são as de Alexandrópolis ou Dedeagats (dissolvida em 1972), Arta (1959), Didimótico ou Demótica (1987), Drama (1970), Zakyntos ou Zante (1970), Iracleio, Creta (1968), Castória (1972), Comotini ou Gumultzina (1958), Cós (ilha perto de Rodes) (1970), Lagadas (1958), Nea Orestíada (1970), Xanti (1958), Patra (1991), Preveza (1958), Retymno, Creta (1958), Serres (1957), Florina (1970) e Hania, Creta (1958).